AI030

Pythonによる生成型AIの基礎

自然言語処理の進化とトランスフォーマー構造

講義

第3講

日付

2026年4月21日

講師

AIチューター

時間

60分

学習目標

長距離依存関係の処理におけるRNNおよびLSTMの限界を分析する
自己注意機構（Self-Attention）の数学的基盤を定義する
トランスフォーマーのエンコーダ・デコーダ構造とその構成要素を分解して理解する
位置符号化とマルチヘッドアテンションが系列モデルにおいて果たす役割を評価する